El modo "picante" de Grok crea deepfakes de celebridades NSFW de mujeres (pero no de hombres)

Esta semana, Elon Musk lanzó oficialmente Grok Imagine, el generador de imágenes y vídeos de xAI para iOS, para los suscriptores de SuperGrok y Premium+ X. La app permite crear contenido NSFW con su modo "Spicy", y The Verge informó el martes que los usuarios pueden crear vídeos en topless de Taylor Swift fácilmente, sin siquiera pedir permiso. Pero no solo Swift debería preocuparse por la nueva herramienta de Musk para crear porno suave generado por IA.

Gizmodo creó unas dos docenas de videos de políticos, famosos y figuras del sector tecnológico usando el modo Grok Spicy, aunque algunos estaban difuminados o aparecían con un mensaje que decía "video moderado". Cuando Grok hacía imágenes escandalosas, solo las que mostraban a mujeres eran realmente inapropiadas para el trabajo. Los videos de hombres eran de esos que no llamaban la atención.

Durante los últimos dos días, X se ha visto inundado de imágenes de mujeres desnudas generadas por IA y consejos para conseguir la mayor cantidad de desnudez posible. Pero los usuarios, que han creado decenas de millones de imágenes de Grok Imagine según Musk , ni siquiera necesitan esforzarse mucho para conseguir deepfakes de celebridades desnudas. Gizmodo no pidió explícitamente desnudez en los ejemplos que citamos en este artículo, pero aun así obtuvimos mucha. Solo hicimos clic en el botón Picante, que es una de las cuatro opciones, junto con Personalizado, Divertido y Normal.

Gizmodo probó Grok Imagine generando videos no solo de Taylor Swift, sino también de otras mujeres prominentes como Melania Trump y figuras históricas como Martha Washington. Melania Trump ha sido una firme defensora de la Ley Take It Down, que ilegaliza la publicación de imágenes íntimas no consensuadas, incluyendo deepfakes.

Grok también creó un video no apto para el trabajo de la fallecida escritora feminista Valerie Solanas, autora del Manifiesto SCUM de 1967. Casi todos los videos mostraban a las mujeres que examinamos quitándose la ropa para quedar desnudas de cintura para arriba, aunque el video de Solanas fue único porque la mostraba completamente desnuda.

¿Qué pasa cuando intentas generar videos picantes de hombres? La IA hará que la figura masculina se quite la camisa, pero no hay nada más escandaloso que eso. Cuando Gizmodo descubrió que solo le quitaría la camisa a un hombre, le pedimos a la IA que creara una imagen de Elon Musk sin camisa y viera qué podía hacer con ella. El resultado fue el video extremadamente ridículo (y seguro para el trabajo) que ves a continuación .

Los intentos de grabar videos de Mark Zuckerberg, Jeff Bezos, Joaquin Phoenix y Charlie Chaplin, así como de los presidentes Barack Obama, Bill Clinton y George Washington, se toparon con la misma limitación. En los videos generados por IA, los hombres se quitan la camisa la mayor parte del tiempo, pero no hay nada más. Y si hay algo más, suele ser tan vergonzoso que nos preocuparía que los usuarios mueran de vergüenza ajena. Hacer un video picante de Errol Musk, el padre de Elon Musk, tuvo el mismo resultado. Simplemente se quitó la camisa.

Cuando creamos un hombre genérico para ver si el modo picante sería más flexible con su contenido sexual, dado que no era una figura pública conocida, simplemente se creó un video extraño e incómodo de un hombre tirándose de los pantalones. Cabe destacar que los pantalones parecen ser una combinación de shorts en una pierna y jeans largos en la otra, antes de transformarse en shorts. El audio de cada video también se generó automáticamente sin instrucciones adicionales.

Al intentar hacer lo mismo con una mujer genérica se obtuvieron imágenes mucho más reveladoras de una mujer en traje de baño que se baja la parte superior para revelar sus pechos desnudos.

La mayoría de los generadores de vídeo de IA convencionales, como Sora de OpenAI y Veo de Google, cuentan con medidas de seguridad para evitar la creación de contenido como pornografía vengativa e imágenes de famosos. Y parece que xAI las cumple en cierto modo, al menos para los hombres. Sin embargo, la mayoría de la gente probablemente se opondría a que su imagen se usara para crear un avatar de IA en diversos estados de desnudez. Gizmodo contactó a Musk a través de xAI para preguntarle sobre las medidas de seguridad y si es aceptable que los usuarios creen vídeos de famosos en topless. No hemos recibido respuesta.

Una de las cosas más sorprendentes del generador de imágenes con IA de Grok es que suele ser pésimo para crear falsificaciones convincentes de famosos. Por ejemplo, las imágenes a continuación se generaron al preguntar por el vicepresidente J.D. Vance y la actriz Sydney Sweeney. Y a menos que hayamos olvidado por completo el aspecto de ambos, ni de lejos. Esto podría ser la salvación de Musk, dado que una herramienta como esta seguramente generará demandas.

Hubo otros fallos, como cuando creamos una imagen generada por IA del presidente Harry Truman que se parecía muy poco a él, y sus pezones parecían estar fuera de su camisa. Truman, en modo picante, se quitó la camisa para revelar su pecho desnudo, que tenía pezones idénticos.

Cuando Gizmodo creó imágenes con la frase "Matt Novak, escritor de Gizmodo", el resultado fue similar al que vimos con los videos de Elon Musk y otros hombres. El personaje (quien, cabe destacar, está en mucho mejor forma física que el verdadero Matt Novak) se quitó la camisa con un simple clic del botón "Spicy".

Como señala The Verge, hay una ventana de verificación de edad cuando un usuario intenta crear un video con Grok Imagine por primera vez, pero la compañía no parece verificar el año de nacimiento del usuario. Afortunadamente, la creación de Gizmodo de un Mickey Mouse animado en modo Picante no generó ningún escándalo, solo el personaje animado saltando inofensivamente. Una imagen de Batman con IA arrojó un resultado "Picante", similar a otras figuras masculinas, donde solo se quitó la parte superior.

Gizmodo no intentó crear imágenes de niños, aunque The Verge sí lo intentó en modo Picante e informa que no se reprodujo nada inapropiado. Sin embargo, el modo "Picante" seguía siendo una opción disponible. "Aún se puede seleccionar, pero en todas mis pruebas, solo agregó movimiento genérico", señala The Verge. Elon Musk, de forma muy infame, restableció una cuenta en X que publicaba material de abuso sexual infantil en 2023, según el Washington Post .

Quizás no sorprenda que el nuevo creador de videos NSFW de Elon Musk tenga estándares diferentes para hombres y mujeres. El multimillonario retuiteó recientemente a una figura de extrema derecha que afirmó que las mujeres son "antiblancas" porque son " débiles ". El CEO de Tesla, quien en 2024 sugirió que quería embarazar a Taylor Swift, no es precisamente conocido por ser un defensor de los derechos de las mujeres.

Gizmodo se suscribió a SuperGrok por $30 al mes y solo pudo probarlo durante una hora y media antes de que nos informaran que habíamos alcanzado el límite de creación de imágenes. Curiosamente, los usuarios aún pueden crear una sola imagen fija para un aviso tras recibir la advertencia y generar vídeos NSFW con esa única imagen, pero es mucho más limitado que antes.

Nos recomendaron actualizar a SuperGrok Heavy por $300 al mes si queríamos seguir usando la herramienta con todas sus funciones. Pero como no necesitábamos más imágenes de celebridades desnudas para escribir este artículo, declinamos la oferta. Desafortunadamente, obtuvimos las respuestas que buscábamos.